Публикация: 
	718. Орлов А.И. Непараметрический метод наименьших квадратов с периодической составляющей: условия применимости. В сб.: Статистические методы оценивания и проверки гипотез: межвуз. сб. науч. тр. Вып. 22. – Пермь: Перм. ун-т, 2010. – С.92-104.

УДК 519.2

А.И. Орлов
МГТУ им. Н.Э. Баумана, Институт высоких статистических технологий и эконометрики
г. Москва
prof-orlov@mail.ru , http://orlovs.pp.ru 

Непараметрический метод наименьших квадратов с периодической составляющей: условия применимости

Аннотация

	Рассмотрен непараметрический метод наименьших квадратов, решающий задачу восстановления зависимости, которая описывается суммой линейного тренда и периодической составляющей. В рамках естественной для приложений модели точек наблюдения обоснованы условия применимости этого метода, принятые в работе автора [3] в предыдущем выпуске (2008 г.) настоящего сборника. В частности, установлена асимптотическая несмещенность оценки коэффициента линейного члена. 

1. Введение. Непараметрический метод наименьших квадратов 
с периодической составляющей

	Рассмотрим задачу восстановления зависимости x = x(t) на основе набора n пар чисел (tk , xk), k = 1, 2, …, n, где tk –– значения независимой переменной, а xk – соответствующие им значения зависимой переменной. 
	Восстанавливать зависимость можно на основе различных моделей. В простейшей из них предполагается, что переменная x линейно зависит от переменной t с точностью до погрешностей измерения, т.е.
xi = a (ti - ) + b + ei , i = 1,2,…,n,			(1)
где a и b – параметры, неизвестные статистику и подлежащие оцениванию, а ek – погрешности, искажающие зависимость. Среднее арифметическое моментов времени  введено в модель для облегчения дальнейших выкладок. 
	Обычно оценивают параметры a и b линейной зависимости методом наименьших квадратов (МНК). Затем восстановленную зависимость используют для точечного и интервального прогнозирования, для построения более сложных моделей. 
	Как известно (см.. например, [1, гл.3]), оценки МНК параметров линейной зависимости имеют вид
  (2)
	При анализе экономических данных возникает необходимость использования более сложных моделей, включающих три составляющие: трендовую (T), периодическую, или циклическую (S) и случайную (E). Простейшая аддитивная модель T + S + E имеет вид 
xk = a (tk - )+ b + ek  = a (tk - ) + b+ f(tk) + Ek, k = 1,2,…,n.	(3)
Здесь трендовая составляющая – линейная функция a (tk - ) + d; периодическая составляющая f(t) произвольна, однако период известен (в зависимости от моделируемой ситуации он равен году, неделе, суткам и т.п.); случайная составляющая представлена слагаемыми Ek, которые являются реализациями независимых одинаково распределенных случайных величин с нулевым математическим ожиданием и дисперсией , неизвестной статистику.
	Периодическую составляющую называют сезонной, если период равен одному году, что естественно для данных относящихся к сельскому хозяйству. Как показывают наблюдения, число посетителей сайта или покупателей магазина имеет недельный период, а если ограничиться будними днями – суточный. 
	Иногда пытаются описать периодическую составляющую f(t) суммой некоторого числа гармоник, используя начальный участок разложения Фурье этой функции. Погрешность приближения начальным участком обычно неизвестна, число используемых гармоник обосновать нельзя. Мы признаем такой подход неадекватным, а потому считаем периодическую составляющую f(t) произвольной функцией. Отказ от задания f(t) в параметрическом виде – первое основание для того, чтобы именовать рассматриваемые модель и метод непараметрическими.
	Иногда принимают предположение о нормальности распределения погрешностей. Однако давно известно, что распределения реальных данных, как правило, отличаются от нормальных [2, п. 5.1]. Поэтому далее рассматриваем описанную выше непараметрическую модель, не предполагающую, что распределение погрешностей входит в то или иное параметрическое семейство. Отказ от задания распределения погрешностей в параметрическом виде – второе основание для того, чтобы именовать рассматриваемые модель и метод непараметрическими.
	Будем использовать Центральную предельную теорему (ЦПТ) теории вероятностей для величин ek = f(tk) + Ek (с весами), k = 1, 2, …, n, поэтому для выполнения ее условий необходимо предположить, например, что погрешности ek , k = 1, 2, …, n, финитны или имеют конечный третий абсолютный момент. Однако заострять внимание на этих внутриматематических «условиях регулярности» здесь нет необходимости.
	В статье [3] рассмотрен следующий алгоритм восстановления зависимости:
	1) по формулам (2) найти оценки a* и b* параметров линейной составляющей, а также оценки математических ожиданий и дисперсий оценок a*, b* и тренда a*t + b*, доверительные интервалы для них; 
	2) на основе отклонений наблюдаемых значений зависимой переменной от оценки тренда построить точечные и интервальные оценки периодической составляющей;
	3) объединяя полученные в 1) и 2) результаты, построить точечную и интервальную оценки зависимости x(t).
	В [3] найдены математические ожидания оценок a* и b*: 
,   , ….	(4)
В [3] установлено, что дисперсии оценок МНК параметров a* и b* линейного тренда – те же, что и при отсутствии периодической составляющей.
	В работе [3] приняты условия 
			(5)
, 		(6)
обеспечивающее несмещенность оценок параметров линейной составляющей. В предположении справедливости условий (5) – (6) реализован описанный выше алгоритм восстановления зависимости.
	Условия (5) – (6) являются принципиально важными. Они являются необходимыми и достаточными для несмещенности и состоятельности оценок, рассмотренных в статье [3].
	Несмещенность и асимптотическая нормальность оценок параметров зависимости, полученных непараметрическим методом наименьших квадратов, позволяют указывать для них асимптотические доверительные границы и проверять статистические гипотезы, например, о равенстве определенным значениям, прежде всего 0.
	Используемая в [3] многомерная нормальность имеет быть, когда каждое слагаемое в формулах (2) и (4) мало сравнительно со всей суммой, т.е. 
.		(7)
Условие (7) выполнено, если ti образуют арифметическую прогрессию, число членов которой безгранично растет.
	В настоящей работе рассмотрим три вопроса:
	А) Верны ли условия (5) – (6) в моделях, соответствующих реальным ситуациям?
	Б) Как проверять справедливость условий по результатам наблюдений?
	В) Каковы свойства оценок, если эти условия оказываются невыполненными?

2. Сумма значений периодической составляющей

	В условиях (5) и (6) важную роль играет система точек наблюдения tk, k = 1, 2, …, n. Примем модель, использованную в [3]. 
	Рассматривается целое число периодов, т.е. n = mq, где n – объем наблюдений, m – количество периодов, q – число наблюдений в одном периоде. Предполагается, что первые q моментов наблюдения при сдвиге на длину периода дают следующие q моментов времени, при сдвиге на две длины периода дают третий набор из q моментов наблюдения, и т.д. Тогда в соответствии с определением периодической составляющей справедливы равенства
.		(8)
Пусть gk - общее значение в (8). Для величин gk, k = 1, 2, …, n, в [3] построены точечные оценки и доверительные интервалы (в предположении, что количество периодов m безгранично растет), в чем и состоит оценивание периодической составляющей. (Для гладкой функции f(t) при безграничном росте числа наблюдений q в одном периоде можно получить сходимость оценок периодической составляющей не только в q точках, но и на всем периоде. При этом от оценок в q точках придется перейти к оценкам на всем периоде, например, кусочно-линейным, соединив соседние точки графика отрезками прямых.)
	Описанная модель справедлива, когда в течение некоторого числа лет имеются поквартальные или помесячные данные бухгалтерского учета. При изучения посещений сайта  или торгового заведения – почасовые данные за целое число недель. Если в ряду наблюдений есть пропуски (временной ряд не является полным) – предпосылки модели не выполняются. Если система точек наблюдения не является регулярной, например, в некоторых задачах анализа медицинских данных [4], использованную в [3] модель применять нельзя. 
	В рассматриваемой модели естественно принять, что 
,		(9)
суммарное отклонение значений восстанавливаемой функции от линейного тренда за один период является нулевым. Тогда условие (5) выполнено:
.
	Можно рассуждать и по-другому, априори приняв условие (5), для этого изменив – при необходимости – величину свободного члена b в модели тренда (та же логика рассуждений, что и при принятии условий M(ek) = 0 – в модели без периодической составляющей – и M(Ek) = 0).
	Таким образом, условие (5) вытекает из свойств рассматриваемой модели и потому вообще не требует проверки по экспериментальным данным, в отличие от условия (6), которое выполнено не всегда. 
	В работе [3] описан частный вид моделей, обеспечивающий априорную справедливость условия (6). Добавим к сказанному выше два предположения - симметричности множества {tk, k = 1, 2, …, n} относительно  и четности периодической составляющей f(t) относительно той же точки. Эти предположения выполнены, если, например, график f(t) симметричен относительно середины года. Ясно, что обычно нет оснований считать, что реальные данные описываются такой моделью.
	В реальных ситуациях система точек наблюдения может включать в себя, кроме целого числа периодов, еще несколько начальных точек следующего периода. Тогда возникает противоречие между условиями (5) и (9). Условие (5) автоматически обеспечивается методом наименьших квадратов, а условие (9) соответствует логике моделирования. Однако поскольку рассматриваем асимптотическую теорию при безграничном росте числа периодов, указанное различие исчезает при .

3. Проверка условия (6) по экспериментальным данным

	Естественно использовать статистику
, 
где  - оценка периодической составляющей f(t), построенная в [3]. Оценка  является несмещенной, а потому 
.
При справедливости (7) распределение Y является асимптотически нормальным (при безграничном росте количества периодов m). Для проверки условия (6), т.е. для проверки нулевой гипотезы
H0: M(Y) = 0
при альтернативной гипотезе о неравенстве математического ожидания 0 достаточно оценить по экспериментальным данным дисперсию Y. 
	Это мы сделаем на основе теории, развитой в [3]. Согласно формуле (17) из этой статьи, непараметрические оценки периодической составляющей имеют вид
,		(10)
где , если , и  при всех остальных значениях индекса суммирования i, где ci заданы в формуле (4), . 
	В соответствии с (8) формулу (10) можно записать для любого j = 1, 2, … , n, если под k = k(j) понимать k(j) = j – aq при максимально возможном a, при котором k(j) остается положительным, т.е. k(j) – это остаток от деления j на q, если этот остаток ненулевой, и k(j) = q при нулевом остатке. Таким образом,
,		(11)
где hik – те же, что и в формуле (10). В соответствии с определением Y из (11) следует, что
.	(12)
	Изменим порядок суммирования во втором слагаемом в (12):
		(13)
Следовательно, поскольку Ei – независимые одинаково распределенные случайные величины с математическим ожиданием 0 и дисперсией , то 
.		(14)
Величину  оцениваем по формулам (11) и (16) статьи [3], величины  описаны после формулы (10). Подставив оценку  из [3] в (14) получаем оценку D*(Y) дисперсии Y.
	Правило принятия решений при проверке гипотезы H0: M(Y) = 0 таково: если 
,		(15)
где  - критическое значение, соответствующее уровню значимости , то нулевая гипотеза принимается (условие (6) выполнено), если же неравенство (15) не выполнено, то принимается альтернативная гипотеза (условие (6) не выполнено). В соответствии с асимптотической нормальностью Y с помощью условия наследования сходимости [2, разд.4.3] критическое значение  выбирается на основе того, что стоящая в (15) под знаком модуля случайная величина при справедливости нулевой гипотезы имеет (асимптотически) стандартное нормальное распределение с математическим ожиданием 0 и дисперсией 1, т.е.
,
где  - функция, обратная к функции стандартного нормального распределения. При  имеем  = 1,96.
	Задача проверки условия (6) решена. Расчеты достаточно громоздки. Примеры расчетов по формулам статьи [3] даны в [1, разд.3.7]. Прогноз закупочных цен на лом черных металлов (по данным Магнитогорского металлургического комбината) дал результаты, согласующиеся с реальностью.

4. Асимптотическая несмещенность оценки параметра а 

	Приведем пример, когда условие (6) не выполнено. Измерять время будем в месяцах. Пусть данные берутся на середину квартала. Тогда последовательность моментов времени такова: 2, 5, 8, 11, 14, 17, 20, 23, … Задан период – год. Периодическая составляющая задается четырьмя числами: g1 = - 1, g2 = -2, g3 = -3, g4 = 6. Для таких данных выполнено равенство (9):
.
Следовательно, выполнено условие (5). Используя это условие можно упростить соотношение (6):
.
	Для простоты расчетов ограничимся двумя годами. Тогда
.
Условие (6) не выполнено. Оно не будет выполнено и для любого иного числа лет. Действительно, если х – начало года (для первого года х = 0, для второго х = 12, и т.д.), то вклад этого года в рассматриваемую сумму будет равен
.
	Причина нарушения условия (6) ясна – периодическая составляющая не симметрична в течение года. Такое поведение периодической составляющей естественно для сельскохозяйственных предприятий. Противоположную ситуацию демонстрирует периодическая составляющая для временного ряда цен на лом черных металлов (по данным Магнитогорского металлургического комбината), проанализированного по методике статьи [3] в учебнике [1, разд.3.7]. Для этого временного ряда условие (6) с практической точки зрения было признано выполненным [3, c.187].
	Смещение оценки параметра а равно
.		(16)
Числитель за m лет, как показано, 30m. А знаменатель, очевидно, имеет порядок m3. Смещение имеет порядок m-2, т.е. быстро убывает с ростом числа периодов. Оценка а* параметра а является асимптотически несмещенной.
	Нетрудно показать, что для рассмотренной в статье [3] системы точек наблюдения tk, k = 1, 2, …, n (см. начало п.2 настоящей статьи) всегда имеет асимптотическая несмещенность оценки а* параметра а. Если условие (6) выполнено – эта оценка является несмещенной, если не выполнено – смещенной, но смещение стремится к 0 при росте числа периодов. Таким образом, условие (6) не является необходимым для применения методов статьи [3]. 
	Тем не менее проверка условия (6) по экспериментальным данным (раздел 2 настоящей статьи) является полезным для решения о том, можно ли пользоваться асимптотической несмещенностью оценки при имеющемся объеме данных. 
	На основе соотношения (16) напрашивается двухэтапная процедура: провести расчеты в соответствии с методикой статьи [3], а затем скорректировать оценку параметра а:
.
Эта оценка будет несмещенной: M(a**) = a. Затем повторить все расчеты, заменив оценки (a*, b*) на (a**, b*). Будут получены новые оценки периодической составляющей, новые доверительные границы для восстановленной зависимости и т.д. Свойства такой процедуры требуют изучения. Однако сразу ясно, что асимптотическая несмещенность исходной оценки a* влечет бесконечную малость отклонений новых оценок от первоначальных. Однако для конкретных данных проведение двухэтапных расчетов позволит получить представление об устойчивости выводов в соответствии с методологией изучения устойчивости математических методов и моделей относительно допустимых отклонений исходных данных и предпосылок моделей. 
	Наиболее общая рекомендация теории устойчивости [5, 6] -  обрабатывать данные многими способами и выделять как объективный результат то, что получено при всех способах. Выводы, полученные только при одном способе обработки, считаем неадекватными реальности, субъективными, поскольку они определяются выбором исследователя, использовавшего именно этот способ анализа данных, а не другой (другие). Цель одновременной обработки многими способами – уменьшение влияние субъективизма, проявляющегося в выборе метода. Например, итоговое мнение комиссии экспертов целесообразно находить как методом средних арифметических рангов, так и методов медиан рангов, а потом выделять «общую часть» с помощью процедуры согласования [1].
	Описанная рекомендация теории устойчивости отвергает идею поиска оптимального метода, поскольку зачастую оказывается, что для любого выбранного для рассмотрения метода анализа данных можно подобрать такое понимание оптимальности, что именно этот метод является оптимальным. Например, метод наименьших квадратов в определенном смысле оптимален, если погрешности имеют нормальное распределение, в то время как метод наименьших модулей оптимален, если погрешности имеют распределение Лапласа. В задаче проверки однородности двух независимых выборок установлено [7], что для любого из обычно используемых критериев однородности существует такое распределение на множестве альтернативных гипотез, что рассматриваемый критерий является оптимальным (в том смысле, который определен в [7]). 

4. Заключительные замечания

	Насколько адекватна реальным ситуациям рассматриваемая нами модель? Покажем ее уязвимость.
	Линейность тренда может быть оправдана возможностью приближения гладких функций касательными. Однако при росте числа периодов, что необходимо для получения состоятельных оценок в рассматриваемой модели, гипотеза линейности тренда становится все менее обоснованной.
	В реальных данных часто видно несколько периодов. Например, число посетителей определенного сайта имеет недельный период, но также и годовой. 
	Перечисленные недостатки, как и в других областях регрессионного анализа, могут быть смягчены усложнением модели, например, введением полиномиального тренда и нескольких периодов.
	Используемая модель случайной составляющей также может быть подвергнута критике. Вызывает сомнение независимость отклонений Ei в соседних точках наблюдения. Последствия успеха (или неудачи) в хозяйственной деятельности обычно ощущаются достаточно долго, в течение нескольких кварталов. Это означает, что следует ожидать положительную корреляцию Ei и Ei+1. 
	Одинаковая распределенность Ei также сомнительна. С ростом объемов хозяйственной деятельности, заложенной в модель в виде роста трендовой составляющей, естественно ожидать и роста погрешностей. Напрашивается модель одинаковой распределенности относительных погрешностей, однако и она, видимо, не является адекватной, поскольку погрешности Ei растут медленнее, чем объемы. 
	Подобного рода критика применима гораздо шире, к большинству моделей регрессионного анализа, и ответом на нее является развитие теоретических исследований. Однако какие методы порекомендовать для практического использования? Чему учить студентов?
	В настоящее время распространен подход, согласно которому прогнозирование временных рядов осуществляется по эвристическим методикам без какого-либо математико-статистического обоснования. Типовым примером является учебное пособие [8]. Оправданием использования эвристических методик является их практическая полезность. 
	В статье [3] и настоящей работе сделана попытка построения математико-статистической теории в рассматриваемой области, стимулированная явной методологической несостоятельностью подходов [8]. Практическая полезность результатов [3] подтверждена успешным анализом реальных данных (цен на лом черных металлов), проведенным в учебнике [1].
	Однако требовать повсеместного перехода с устаревших эвристических методов [8] на современные математико-статистические, в частности, развитые в [3], представляется нецелесообразным из-за уязвимости методов [3] к методологической критике со стороны прикладника, примеры которой приведены выше. В соответствии с теорией устойчивости экономико-математических методов и моделей [5, 6] выход состоит в том, чтобы знакомить студентов как с методами [3], так и с методами [8] (в соответствии с общей рекомендацией теории устойчивости обрабатывать данные многими способами и выделять как объективный результат те выводы, которые получены при всех способах). Именно так построено обучение на факультете «Инженерный бизнес и менеджмент» МГТУ им. Н.Э. Баумана.
	В статье [3] и настоящей работе период считается заданным. Математико-статистическим методам оценки периода посвящена статья [8] и раздел 10.2 учебника [2]. Эти работы позволяют, в частности, дать обоснование выделению различных видов экономических циклов.
	Ряд положений настоящей статьи наглядно демонстрирует целесообразность дальнейшей разработки методологии статистических методов [6, 10] с общих позиций методологии как учения об организации деятельности [11], в данном случае – деятельности по анализу статистических данных, по построению необходимых для этого моделей и методов. В более широком плане речь идет о разработке адекватных статистических технологий, которые можно описать как ориентированные графы, вершинами которых являются отдельные процедуры оценивания и проверки гипотез, а дугами – переходы от одной из таких процедур к другой в зависимости от результата анализа данных на предыдущем этапе. Другими словами, речь идет о дальнейшем развитии теории и методологии высоких статистических технологий (см. [2, гл.14], [12]). 

Библиографический список

1. Орлов А.И. Эконометрика. Изд. 4-е, доп. и перераб. Учебник для вузов. – Ростов-на-Дону: Феникс, 2009. - 572 с.
2. Орлов А.И. Прикладная статистика. Учебник для вузов. – М. : Экзамен, 2006. – 671 с.
3. Орлов А.И. Непараметрический метод наименьших квадратов: учет сезонности // Статистические методы оценивания и проверки гипотез: межвуз. сб. науч. тр. Вып. XXI. – Пермь: Перм. ун-т, 2008. – С.135-148.
4. Орлов А.И. О некоторых математических задачах, возникающих при обработке медицинских данных // Статистика. Вероятность. Экономика. / Ученые записки по статистике, т.49.- М.: Наука, 1985. -С.323-326.
5. Орлов А.И. Устойчивость в социально-экономических моделях. - М.: Наука,1979.- 296 с.  
6. Орлов А.И. Разработка и развитие устойчивых экономико-математических методов и моделей для модернизации управления предприятиями. Автореф. дисс. … докт. экон. наук; 13.10.09 / Московский государственный технологический университет «Станкин». - М., 2009. - 32 с.
7. Никитин Я.Ю. Асимптотическая эффективность непараметрических критериев. - М.: Наука, 1995. - 240 с.
8. Практикум по эконометрике: Учеб. пособие / И.И. Елисеева, С.В. Курышева, Н.М. Гордеенко и др.; Под ред. И.И. Елисеевой. – М.: Финансы и статистика. 2001. – 192 с. 
9. Орлов А.И. Метод оценивания длины периода и периодической составляющей сигнала // Статистические методы оценивания и проверки гипотез: межвуз. сб. науч. тр. Вып. XIII. – Пермь: Перм. ун-т, 1999. - С.38-49.
10. Орлов А.И. О развитии методологии статистических методов // Статистические методы оценивания и проверки гипотез: межвуз. сб. науч. тр. Вып. XV. – Пермь: Перм. ун-т, 2001. – С.118-131.
11. Новиков А.М., Новиков Д.А. Методология. – М.: СИНТЕГ, 2007. – 668 с.
12. Орлов А.И. Высокие статистические технологии // Заводская лаборатория. - 2003. - Т.69. - №11. - С.55-60.